Keluarga Mitsui memulakan operasi perbankan pada tahun 1683, apabila Tokugawa Shogunate memberikan kebenaran kepada Mitsui Takatoshi untuk bertindak sebagai penukar wang.

Mitsui Bank ditubuhkan sebagai sebuah syarikat swasta pada bulan Julai 1876, dengan modal dua juta yen. Ia merupakan salah satu bank utama kerajaan Jepun untuk deposit dan kutipan cukai sehingga pembentukan Bank Jepun pada tahun 1882. Dalam beberapa dekad, keluarga Mitsui mengambil alih pelbagai loji perindustrian kerajaan untuk membentuk konglomerat utama zaibatsu, dengan bank sebagai salah satu perniagaan utamanya.[1] Mitsui Bank disusun semula sebagai perkongsian tanpa had pada tahun 1893, dan sebagai syarikat terhad (modal saham: ¥ 20 juta) pada tahun 1909.[2]